Volker Wittpahl (Herausgeber) KÜNSTLICHE INTELLIGENZ Technologie | Anwendung | Gesellschaft iit-Themenband iit-Themenband Künstliche Intelligenz Volker Wittpahl • Herausgeber iit-Themenband Künstliche Intelligenz Technologie | Anwendung | Gesellschaft Herausgeber Prof. Dr. Volker Wittpahl Institut für Innovation und Technik (iit) in der VDI/VDE Innovation + Technik GmbH Berlin, Deutschland ISBN 978-3-662-58041-7 ISBN 978-3-662-58042-4 (eBook) DOI 10.1007/978-3-662-58042-4 Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über http://dnb.d-nb.de abrufbar. Springer © Der/die Herausgeber bzw. der/die Autor(en) 2019. Dieses Buch ist eine Open-Access-Publikation Open Access. Dieses Buch wird unter der Creative Commons Namensnennung 4.0 International Lizenz (http://creativecommons.org/licenses/by/4.0/deed.de) veröffentlicht, welche die Nutzung, Vervielfältigung, Bearbeitung, Verbreitung und Wiedergabe in jeglichem Medium und Format erlaubt, sofern Sie den/die ursprünglichen Autor(en) und die Quelle ordnungsgemäß nennen, einen Link zur Creative Commons Lizenz beifügen und angeben, ob Änderungen vorgenommen wurden. Etwaige Abbildungen oder sonstiges Drittmaterial unterliegen ebenfalls der genannten Creative Com- mons Lizenz, sofern sich aus der Abbildungslegende oder der Quellreferenz nichts anderes ergibt. Sofern solches Drittmaterial nicht unter der genannten Creative Commons Lizenz steht, ist eine Vervielfältigung, Bearbeitung oder öffentliche Wiedergabe nur mit vorheriger Zustimmung des betreffenden Rechteinha- bers oder auf der Grundlage einschlägiger gesetzlicher Erlaubnisvorschriften zulässig. Die Wiedergabe von Gebrauchsnamen, Handelsnamen, Warenbezeichnungen usw. in diesem Werk berechtigt auch ohne besondere Kennzeichnung nicht zu der Annahme, dass solche Namen im Sinne der Warenzeichen- und Markenschutz-Gesetzgebung als frei zu betrachten wären und daher von jedermann benutzt werden dürften. Sämtliche Personenbezeichnungen in diesem Band gelten für jedes Geschlecht. Der Verlag, die Autoren und die Herausgeber gehen davon aus, dass die Angaben und Informationen in diesem Werk zum Zeitpunkt der Veröffentlichung vollständig und korrekt sind. Weder der Verlag, noch die Autoren oder die Herausgeber übernehmen, ausdrücklich oder implizit, Gewähr für den Inhalt des Wer- kes, etwaige Fehler oder Äußerungen. Gedruckt auf säurefreiem und chlorfrei gebleichtem Papier Springer ist Teil von Springer Nature Die eingetragene Gesellschaft ist „Springer-Verlag GmbH Berlin Heidelberg“ iit-Themenband – Künstliche Intelligenz 5 Geleitwort Robert Thielicke „Künstliche Intelligenz ist eines der wichtigsten Dinge, an denen Menschen arbeiten. Ihre Bedeutung ist grundlegender als Elektrizität oder das Feuer“, sagte Google-Chef Sundar Pichai 2018 auf einer Veranstaltung in San Francisco. Das Wall Street Journal zitierte Microsoft-Chef Satya Nadella: „Künstliche Intelligenz ist nicht einfach nur eine weitere Technologie, es könnte eine der wirklich grundle- genden Technologien sein, die Menschen jemals entwickelt haben.“ Sind diese Äußerungen schlichtes Marketing oder zutreffende Analyse? Es kann durchaus sein, dass wir in zehn oder zwanzig Jahren zurückblicken und beiden zubil- ligen, richtig gelegen zu haben. Momentan jedoch sind beide Sätze vor allem Ver- sprechungen, geäußert von Konzernlenkern, die Geld verdienen möchten. Und trotzdem taucht insbesondere Pichais Behauptung in vielen Artikeln und Vorträ- gen über das Potenzial der Künstlichen Intelligenz auf. Dort dient sie als Hinweis auf die umwälzenden Wirkungen, die uns erwarten. Beim Thema „Künstliche Intelli- genz“ nimmt man Marketing allzu oft für bare Münze. Warum? Es wäre eine zu einfache Antwort, lediglich technisches Unwissen anzufüh- ren. Die Ursache reicht tiefer. Sie findet sich in unserer Sicht auf diese neue Entwick- lung. Europäer und gerade Deutsche sehen Künstliche Intelligenz kritisch, in der brei- ten Wahrnehmung überragen die Nachteile die Vorteile. Gefürchteter Verlust von Job und Entscheidungsfreiheit wiegen schwerer als bessere Entscheidungen in der Medizin oder weniger Todesfälle im Straßenverkehr. Wenn also Sundar Pichai oder Satya Nadella die Macht einer Entwicklung beschwören, die viele eher fürchten – sollte man ihnen dann nicht glauben? Würden beide eine unheimliche Zukunft an die Wand malen, wenn es ihnen nicht ernst wäre? Es ist höchste Zeit, Werbung und Wirklichkeit zu trennen. Sich dem Thema mit einer gewissen Distanz zu nähern, sich genau anzuschauen, welche Möglichkeiten die Künstliche Intelligenz bietet, wo ihre Grenzen liegen – und wo die wirklichen Gefah- ren lauern. Es ist richtig, dass die Entwicklung an niemandem spurlos vorübergehen wird. Aber wie tief werden diese Spuren? Wer sie jenseits des Hypes vermisst, bekommt ein gutes Gefühl dafür, was tatsächlich auf Gesellschaft und Wirtschaft zukommt. Und sieht klarer, wie beide sich vorbereiten können. 6 Geleitwort Wie jede Technologie ist auch die Künstliche Intelligenz kein unausweichliches Schicksal. Sie lässt sich gestalten. Umgekehrt bedeutet dies aber auch: Wenn wir sie nicht mitgestalten, tun es andere für uns. Die große Frage lautet daher: Wie soll diese Zukunft aussehen? Wohin wollen wir mit lernenden Maschinen und denkenden Robotern? Ich hoffe, dieser Band hilft dabei, die richtigen Antworten zu finden. Dieses Kapitel wird unter der Creative Commons Namensnennung 4.0 International Lizenz http://creativecommons.org/licenses/by/4.0/deed.de) veröffentlicht, welche die Nutzung, Vervielfältigung, Bearbeitung, Verbreitung und Wiedergabe in jeglichem Medium und Format erlaubt, sofern Sie den/die ursprünglichen Autor(en) und die Quelle ordnungsgemäß nennen, einen Link zur Creative Commons Lizenz beifügen und angeben, ob Änderungen vorgenommen wurden. Die in diesem Kapitel enthaltenen Bilder und sonstiges Drittmaterial unterliegen ebenfalls der genannten Creative Commons Lizenz, sofern sich aus der Abbildungslegende nichts anderes ergibt. Sofern das betreffende Material nicht unter der genannten Creative Commons Lizenz steht und die betreffende Handlung nicht nach gesetzlichen Vorschriften erlaubt ist, ist für die oben aufgeführten Weiterverwendungen des Materials die Einwilligung des jeweiligen Rechteinhabers einzuholen. iit-Themenband – Künstliche Intelligenz 7 Vorwort Volker Wittpahl Vielen Menschen scheinen die Debatten über Künstliche Intelligenz (KI) vom Alltag noch weit entfernt, doch als Internetnutzerin oder Internetnutzer ist man täglich mit ihr – meist unbewusst – schon konfrontiert: sei es hinter der Auswahl von Werbung, welche beim Surfen auf Internetseiten auf die individuellen Präferenzen und das Nutzerverhalten der Surfer abgestimmt ist, die Kaufempfehlungen beim Online-Shop von Amazon, die Chatbots, welche auf Webseiten die oft gestellten Fragen (engl. Frequently Asked Questions, FAQ) als Dialogassistenz beantworten oder die Sprach- steuerungen Siri und Alexa, welche auf Smartphones oder als Smart Speaker im Haus auf Spracheingabe reagieren. Wenn man in der Fachpresse und in den Medien die Entwicklungen der KI-Technolo- gie aufmerksam verfolgt und beobachtet, kann man feststellen, dass immer häufiger von Erfolgen der KI berichtet wird. Diese lassen nicht nur Laien, sondern auch Exper- tinnen und Experten oft ein staunend überraschendes bis ängstliches „Oh mein Gott!“ ausrufen. Hier nur einige Beispiele: Auf den ersten Blick harmlos und doch spektakulär sind die Entwicklungen im Bereich der Spiele. So schlug schon im Jahr 1996 der Computer „Deep Blue“ von IBM den damaligen Schachweltmeister Garri Kasparow (Neander 1996). Im Oktober 2015 wurde der Europameister des japanischen Brettspiels „Go“, Fan Hui, von der KI AlphaGo aus der KI-Schmiede DeepMind von Google geschlagen. Im März 2016 wurde dann auch der internationale Champion Lee Sedol von AlphaGo geschlagen (Lossau 2017). Im Jahr 2017 stellte DeepMind den Nachfolger AlphaGo Zero vor, ein KI-System, das ohne vorab gespeichertes Expertenwissen auskommt. AlphaGo Zero kannte nur die Spielregeln, mit denen es die Go-Steine auf dem Brett setzen und bewegen kann, und nutzte verstärktes Lernen (Reinforcement Learning, siehe Einlei- tungskapitel Teil A Technologie „Entwicklungswege zur KI“). Während des Trainings benötigte AlphaGo Zero durchschnittlich 0,4 Sekunden Denkzeit pro Zug. In nur drei Tagen war AlphaGo Zero der beste Go-Spieler aller Zeiten. Selbst den im Vorjahr noch gefeierten AlphaGo schlug AlphaGo Zero in einer ersten Spielserie mit schlap- pen 100 zu 0. Die Leistung ist umso erstaunlicher, als Alpha Go Zero mit einer spar- sameren Hardware auskommt als sein Vorgänger und nur 3,9 Millionen statt 30 Millionen Trainingsspiele benötigte (Weber 2017). 8 Vorwort Neben klassischen Brettspielen wurden auch Video- und Computerspiele genutzt, um die Leistungsfähigkeit von KI-Systemen aufzuzeigen. So war im Jahr 2015 die KI von DeepMind imstande, 49 verschiedene Atari-Spiele für die Atari-2600-Konsole wie „Breakout“, „Video Pinball“ und „Space Invaders“ erfolgreich zu bewältigen. Im Test schaffte es die KI, sich die Regeln der Atari-Spiele selbst beizubringen (Spiegel Online 2015). Für das Spiel „Breakout“ entdeckte sie sogar eine optimale Strategie. Insgesamt gelang es dem KI-System, Menschen in 29 der 49 unterschiedlichen Spiele zu schlagen (Tegmark 2017). Im Jahr 2018 gelang es einer weiteren KI, den Atari-Klassiker Q*bert zu spielen – sie erreichte dank eines Bugs „unmögliche“ (Wittenhorst 2018) Highscores. Forschende hatten evolutionäre Algorithmen auf die Atari-Spieleklassiker losgelassen, um zu untersuchen, wie sie sich gegen das etablierte Reinforcement Learning schlagen. Dabei fand die KI im Hüpfspiel Q*bert einen „Bug“ und trickste ungeplant das Gamedesign aus. Das Jahr 2018 bot aber noch weitere „spielende“ Erfolge von selbstlernender KI: In dem komplexem Computerspiel Dota 2, einem Multiplayer- Online-Battle-Arena-Game, hat ein Team aus fünf kollaborativen KI-Systemen eine Gruppe von Menschen im Teamwork geschlagen (Knight 2018). Eine weitere KI brachte sich selbst mittels tiefem Lernen (Deep Learning, DL) bei, wie man den Zau- berwürfel (Rubik‘s Cube) löst. Die theoretisch kleinste Anzahl der Schritte, die not- wendig sind, um den Würfel aus einer zufälligen Position zu lösen, ist 26. Die KI kann jeden zufällig eingestellten Würfel zu 100 Prozent lösen und erreicht dabei eine mitt- lere Schrittzahl von 30. Das ist genauso viel wie oder weniger als Menschen erreichen (TR online 2018). KI-Sprachassistenten sind auf dem Vormarsch, seit 2011 Siri in das Betriebssystem von iPhones integriert wurde: Siri steht inzwischen 700 Millionen Nutzerinnen und Nutzern von iPhones zur Verfügung, 400 Millionen Menschen können mit dem Google Assistant sprechen, weitere 400 Millionen mit Microsofts Assistent Cortana. Zu diesen gesellen sich seit der Markteinführung von Alexa durch Amazon im Jahr 2015 auch noch Millionen von Smart Speakern, die als Assistenten zu Mitgliedern des Haushalts werden (Boeing 2018). Um die Akzeptanz KI-gestützter Assistenzsysteme zu steigern, müssen die Sprachas- sistenzen wie echte Menschen klingen. Googles aktuelle synthetische Sprachaus- gabe ist klanglich kaum mehr als Roboterstimme zu erkennen. Die KI hat eine verbes- serte Intonation für einen natürlicheren Sprachfluss. Sie berücksichtigt bei der Beto- nung den Schreibstil und die Position von Wörtern im Satz. Wenn ein Fragezeichen am Satzende steht, geht die Stimme nach oben. Emotionen im Klang sowie Sprach- ausgabe in Echtzeit sind jedoch noch nicht möglich (Bastian 2018a). Ergänzend zu dem Einsatz der Sprachassistenzen entwickelt sich derzeit das Klonen von Stimmen und Gesichtern. So ist das chinesische Unternehmen Baidu mit seiner iit-Themenband – Künstliche Intelligenz 9 KI-Anwendung „Deep Voice“ in der Lage, anhand von wenigen Sekunden Aus- gangsmaterial eine Stimme zu klonen. Dass ein System so schnell arbeitet, ist schon besonders, wenn man bedenkt, dass im Jahr 2017 noch 30 Minuten Trainingsmate- rial benötigt wurden und Adobe im Jahr 2016 ein Stimmklonverfahren vorgestellt hat, das 20 Minuten benötigte. Mit der KI-Klonstimme von Baidu lässt sich mittels Text-zu-Sprache-Software jede Aussage mit der Intonation und in der Stimmlage des Originalsprechers wiedergeben, unabhängig vom Inhalt der Aussage, mit der sie trai- niert wurde (Bastian 2018b). Nicht nur Stimmen lassen sich mittels KI klonen, sondern auch Personen in Filmen. Im Frühjahr 2018 stellten Forschende auf der Siggraph „Deep Video Portrait” vor. „Deep Video Portrait” ist eine Methode zur Video-Manipulation mittels DL-Verfahren. Anders als bei existierender kostenfreier Software 1 zur Videomanipulation wird die Mimik samt Kopfbewegungen von einer Person auf das Gesicht einer zweiten Person in einem Video projiziert. Kopfbewegungen in drei Dimensionen, Kopfdrehung, den Gesichtsausdruck, die Blickrichtung und Blinzler erkennt das KI-System und kann sogar den Schatten, den der Kopf auf den Hintergrund wirft, im Nachhinein perspek- tivisch korrekt in das Video rechnen (Kim et al. 2018). KI-Systeme unterstützen nicht nur Sprachassistenten oder klonen Stimmen und Gesichter, inzwischen sind sie auch in der Lage, eigenständig mit Menschen zu kom- munizieren. So zeigte Google mit seinem Duplex-System, wie ein KI-System als Kunde am Telefon einen Friseurtermin bucht und einen Tisch im Restaurant reser- viert. Bei der natürlich erscheinenden Stimme am Telefon hätte man keine KI vermu- tet. Anders als die klassischen Roboterstimmen fügt Google Duplex Unregelmäßig- keiten in die Sätze ein. So sind scheinbare Denkpausen zu hören oder ein hin und wieder gemurmeltes „Mhmm“ und unvermittelt auftretende Sprechpausen. Hier- durch ergibt sich das Gefühl, die KI geht auf Gesprächspartner ein oder denkt nach (Kremp 2018). Duplex soll ab 2018 zunächst testweise in den Google Assistant inte- griert werden (Herbig 2018). Ebenfalls KI-basiert eruiert Googles E-Mail-Dienst Gmail mit der „Smart Compose“-Funktion, was die Nutzenden sagen wollen (Schwan 2018a). Eine ganz andere Dimension der KI-Anwendung in der Kommunikation ist der 2016 vorgestellte Smart Speaker MOODBOX. Die MOODBOX besitzt eine KI zur Emotions- erkennung. Der Smart Speaker prüft, wie sich der Besitzer fühlt und spielt Musik passend zur Gefühlslage (Gineers Now 2018). 1 z. B. FakeApp, https://www.chip.de/news/FakeApp-kostenlos-Software-tauscht-Personen- in-Videos_133462513.html, zuletzt geprüft am 22.07.2018. 10 Vorwort KI-Anwendungen werden längst nicht mehr nur für die zwischenmenschliche Kom- munikation optimiert. So ist der Podcast „Sheldon County“ komplett von einem KI- System geschrieben und eingesprochen. Die Sprecherin Justine mit ihrer jungen Frau- enstimme ist eine realistisch klingende Sprachsoftware, die man sich von Amazons Webdienstetochter AWS mieten kann. Mittlerweise gibt es mehrere Folgen, die von der KI entworfen und eingesprochen wurden (Schwan 2018b). KI ist zu einem Thema geworden, das viele Menschen ähnlich wie Digitalisierung nicht vollständig greifen und einschätzen können. Der zunehmende Einsatz von KI in unterschiedlichen Lebens- und Wirtschaftsbereichen kommt – aber wie werden wir damit umgehen? Im privaten Umfeld verdrängt der gefühlte Komfort das Unbeha- gen gegenüber der Nutzung von KI-Systemen. Jedoch ist der Einsatz von KI im Arbeits- und Wirtschaftsumfeld schon etwas, das erhebliche Veränderungen inner- halb kürzester Zeit mit sich bringen kann, was wiederum eine große Verunsicherung bei vielen Menschen in Bezug auf ihre Arbeit auslöst. Die aufgeführten Beispiele zeigen die rasante Geschwindigkeit in der KI-Entwicklung. Die damit einhergehen- den Veränderungen machen eine gesellschaftliche Diskussion zum Einsatz der KI- Nutzung immer dringlicher. Aktuelle Publikationen zeigen die Notwendigkeit einer faktenbasierten Technologie- folgenabschätzung sehr deutlich. So hat Yvonne Hofstetter im Jahr 2016 noch vor den Wahlen in den USA in ihrem Buch „Das Ende der Demokratie – Wie die künstli- che Intelligenz die Politik übernimmt und uns entmündigt“ (Hofstetter 2016) aufge- zeigt, wie sich mittels KI Massen manipulieren lassen und durch ihren Einsatz unsere Demokratie bedroht wird. Der MIT-Professor Mark Tegmark hat dann in seinem Buch „Leben 3.0 – Mensch sein im Zeitalter der künstlichen Intelligenz“ (Tegmark 2017) einen allgemeinen Überblick zur Geschichte der KI-Entwicklung sowie zu aktuellen und möglichen Anwendungs- feldern gegeben. Diese sind zum Beispiel der Einsatz im Finanzwesen, in der Ferti- gung, im Transportwesen, im Energiesektor, im Gesundheitswesen oder bei der Erforschung des Weltraums. Aber auch der Einsatz von KI-Systemen als Richter oder in autonomen Waffen wird diskutiert. Tegmark zeigt im Buch auch mögliche Szena- rien für den Punkt auf, dass eine Allgemeine Künstliche Intelligenz (AKI) auf mensch- lichem Niveau geschaffen wird und sogar über dieses hinaus wächst. Das von Teg- mark mitbegründete „Future of Life Institute“ hat sich dem Ziel gewidmet, existen- zielle Risiken für die Menschheit zu verringern, die durch transformative Technologien wie die KI hervorgerufen werden. Dem Beirat gehören unter anderem der Unterneh- mer Elon Musk, der KI-Forscher Stuart Russel und der 2018 verstorbene Physiker Stephen Hawking an. Wie weit bereits die KI in unseren Alltag und Bereiche menschlicher Kultur vorge- drungen ist, hat Holger Volland nun in „Die kreative Macht der Maschinen – Warum iit-Themenband – Künstliche Intelligenz 11 Künstliche Intelligenzen bestimmen, was wir morgen fühlen und denken“ (Volland 2018) sehr anschaulich an verschiedenen Aspekten wie Sprache, Bilder, Kreativität und Emotionen aufgezeigt. Was alle drei Bücher zur KI gemein haben, ist die Warnung vor anstehenden tiefgrei- fenden und unumkehrbaren Veränderungen sowie die Aufforderung, hierfür gestal- terische Verantwortung zu übernehmen. Mit dem vorliegenden iit-Themenband „Künstliche Intelligenz“ wird den Leserinnen und Lesern für den gesellschaftlichen Diskurs Wissen zum Einsatz von KI bereitge- stellt. Die Beiträge in den Teilen A „Technologie“ und B „Anwendung“ zeigen schlaglichtartig das Potenzial vom KI-Einsatz auch jenseits des Offensichtlichen auf. Dabei liegt der Fokus mehr auf den Voraussetzungen zur Nutzung und Anwendung, wie z. B. die Datenverfügbarkeit, Infrastruktur oder Akzeptanz. Die Beiträge im abschließenden Teil C „Gesellschaft" zeigen die Breite der gesellschaftlichen Diskurse zur KI auf und mögen anregen, diese Diskurse auf das eigene Umfeld zu übertragen und im jeweiligen Kontext fortzuführen. Berlin, Deutschland Prof. Dr. Volker Wittpahl Juli 2018 Geschäftsführender Direktor 12 Vorwort Literatur Bastian, Matthias (2018a): Neue Sprachsynthese: Google-KI klingt jetzt wie ein Mensch. Online verfügbar unter https://vrodo.de/neue-sprachsynthese-google-ki-klingt-jetzt-wie- ein-mensch/, zuletzt geprüft am 22.07.2018. Bastian, Matthias (2018b): Künstliche Intelligenz: Algorithmus klont Stimme in nur 3,7 Sekunden. Online verfügbar unter https://vrodo.de/kuenstliche-intelligenz-algorithmus- klont-stimme-in-nur-37-sekunden/, zuletzt geprüft am 22.08.2018. Boeing, Niels (2018): Dein Freund und Lauscher. Online verfügbar unter https://www.heise. de/tr/artikel/Dein-Freund-und-Lauscher-4050426.html, zuletzt geprüft am 22.07.2018. Gineers Now o. V. (2018): This Smart Speaker Knows How To Feel Your Mood. Online verfügbar unter https://gineersnow.com/industries/audio-video/smart-speaker-knows-feel- mood, zuletzt geprüft am 22.08.2018. Herbig, Daniel (2018): Google Duplex: Guten Tag, Sie sprechen mit einer KI. Online verfüg- bar unter https://www.heise.de/newsticker/meldung/Google-Duplex-Guten-Tag-Sie-spre- chen-mit-einer-KI-4046987.html, zuletzt geprüft am 22.07.2018. Hofstetter Yvonne (2016): Das Ende der Demokratie Wie die künstliche Intelligenz die Politik übernimmt und uns entmündigt. C. Bertelsmann: München. Kim, Hyeongwoo; Garrido, Pablo; Tewari, Ayush; Xu, Weipeng; Thies, Justus; Niessner, Matthias; Perez, Patrick; Richardt, Christian; Zollhöfer, Michael; Theobalt, Christian (2018): Deep Video Portraits. Online verfügbar unter https://arxiv.org/pdf/1805.11714.pdf, zuletzt geprüft am 22.07.2018. Knight, Will (2018): KI knackt komplexes Computerspiel im Teamwork. Online verfügbar unter https://www.heise.de/tr/artikel/KI-knackt-komplexes-Computerspiel-im-Team- work-4092655.html, zuletzt geprüft am 22.07.2018. Kremp, Matthias (2018): Google Duplex ist gruselig gut. Online verfügbar unter http://www. spiegel.de/netzwelt/web/google-duplex-auf-der-i-o-gruselig-gute-kuenstliche-intelli- genz-a-1206938.html, zuletzt geprüft am 22.08.2018. Lossau, Norbert (2017): Diese Super-Software bringt sich übermenschliche Leistungen bei. Online verfügbar unter https://www.welt.de/wissenschaft/article169782047/Diese-Super- Software-bringt-sich-uebermenschliche-Leistungen-bei.html, zuletzt geprüft am 22.07.2018. Neander, Joachim (1996): Computer schlägt Kasparow. Online verfügbar unter https://www. welt.de/print-welt/article652666/Computer-schlaegt-Kasparow.html, zuletzt geprüft am 22.07.2018. Schwan, Ben (2018a): Google als Ghostwriter. Online verfügbar unter https://www.heise.de/ tr/artikel/Google-als-Ghostwriter-4069514.html, zuletzt geprüft am 22.08.2018. Schwan, Ben (2018b): Regie: KI, Buch: KI, Gesprochen von: KI. Online verfügbar unter https://www.heise.de/tr/artikel/Regie-KI-Buch-KI-Gesprochen-von-KI-4068201.html, zuletzt geprüft am 22.08.2018. iit-Themenband – Künstliche Intelligenz 13 Spiegel Online o. V. (2015): Künstliche Intelligenz bewältigt 49 Atari-Spiele. Online verfügbar unter http://www.spiegel.de/netzwelt/games/google-ki-computer-lernt-atari-spiele-wie- space-invaders-a-1020669.html, zuletzt geprüft am 22.07.2018. Tegmark, Max (2017): Leben 3.0. Mensch sein im Zeitalter der künstlichen Intelligenz. Ullstein: Berlin. ISBN: 978-3-550-08145-3. TR online o. V. (2018): Maschine knackt den Zauberwürfel. Online verfügbar unter https:// www.heise.de/tr/artikel/Maschine-knackt-den-Zauberwuerfel-4095333.html, zuletzt geprüft am 22.07.2018. Volland, Holger (2018): „Die kreative Macht der Maschinen“. Warum Künstliche Intelligen- zen bestimmen, was wir morgen fühlen und denken. Weber, Christian (2017): Computer spielt Go gegen sich selbst – und wird unschlagbar. Online verfügbar unter https://www.welt.de/wissenschaft/article169782047/Diese-Super- Software-bringt-sich-uebermenschliche-Leistungen-bei.html, zuletzt geprüft am 22.07.2018. Wittenhorst, Tilman (2018): Atari-Klassiker: Bot spielt Q*bert und erreicht dank Bug “unmögliche” Highscores. Online verfügbar unter https://www.heise.de/newsticker/ meldung/Atari-Klassiker-Bot-spielt-Q-bert-und-erreicht-dank-Bug-unmoegliche-Highs- cores-3986024.html, zuletzt geprüft am 22.07.2018. Dieses Kapitel wird unter der Creative Commons Namensnennung 4.0 International Lizenz http://creativecommons.org/licenses/by/4.0/deed.de) veröffentlicht, welche die Nutzung, Vervielfältigung, Bearbeitung, Verbreitung und Wiedergabe in jeglichem Medium und Format erlaubt, sofern Sie den/die ursprünglichen Autor(en) und die Quelle ordnungsgemäß nennen, einen Link zur Creative Commons Lizenz beifügen und angeben, ob Änderungen vorgenommen wurden. Die in diesem Kapitel enthaltenen Bilder und sonstiges Drittmaterial unterliegen ebenfalls der genannten Creative Commons Lizenz, sofern sich aus der Abbildungslegende nichts anderes ergibt. Sofern das betreffende Material nicht unter der genannten Creative Commons Lizenz steht und die betreffende Handlung nicht nach gesetzlichen Vorschriften erlaubt ist, ist für die oben aufgeführten Weiterverwendungen des Materials die Einwilligung des jeweiligen Rechteinhabers einzuholen. iit-Themenband – Künstliche Intelligenz 15 Inhaltsverzeichnis Geleitwort 5 Vorwort 7 Inhaltsverzeichnis 15 A Technologie 18 Einleitung: Entwicklungswege zur KI 21 1 Hardware für KI 36 2 Normen und Standards in der KI 48 3 Augmented Intelligence – Wie Menschen mit KI zusammen arbeiten 58 4 Maschinelles Lernen für die IT-Sicherheit 72 B Anwendung 92 Einleitung: KI ohne Grenzen? 95 5 Neue Möglichkeiten für die Servicerobotik durch KI 99 6 E-Governance: Digitalisierung und KI in der öffentlichen Verwaltung 122 7 Learning Analytics an Hochschulen 142 8 Perspektiven der KI in der Medizin 161 9 Die Rolle der KI beim automatisierten Fahren 176 10 Maschinelle Übersetzung 194 C Gesellschaft 212 Einleitung: „Intelligenz ist nicht das Privileg von Auserwählten “ 215 11 KI und Arbeit – Chance und Risiko zugleich 221 16 Inhaltsverzeichnis 12 Neue Intelligenz, neue Ethik? 239 13 Kreative Algorithmen für kreative Arbeit? 255 Ausblick 273 Anhang 277 Autorinnen und Autoren 277 Abkürzungsverzeichnis 286 Teil A TECHNOLOGIE Einleitung: Entwicklungswege zur KI - Hardware für KI - Normen und Standards in der KI - Augmented Intelligence – Wie Menschen mit KI zusammen arbeiten - Maschinelles Lernen für die IT-Sicherheit iit-Themenband – Künstliche Intelligenz 21 Einleitung: Entwicklungswege zur KI Moritz Kirste, Markus Schürholz Wir nennen uns selbst Homo sapiens – der weise Mensch. Erste Versuche, diese Weisheit zu beschreiben, zu verstehen, abzubilden und in Gesetzmäßig- keiten zu verwandeln, reichen bis in die Antike zurück und haben eine lange Tradition in der Philosophie, Mathematik, Psychologie, Neurowissenschaft und Informatik. Vielfach wurde versucht, den Begriff der Intelligenz – also die kog- nitive Leistungsfähigkeit des Menschen – besser zu verstehen und zu definie- ren. Als KI bezeichnet man traditionell ein Teilgebiet der Informatik, das sich mit der Automatisierung von intelligentem Verhalten befasst. Eine genaue Begriffsbestimmung ist jedoch kaum möglich, da auch alle direkt verwandten Wissenschaften wie Psychologie, Biologie, Kognitionswissenschaft, Neurowis- senschaft an einer genauen Definition von Intelligenz scheitern. Die Versuche, Intelligenz zu beschreiben und nachzubilden, lassen sich grob in vier Ansätze unterteilen, die sich mit menschlichem Denken, menschlichem Handeln, rationalem Denken und rationalem Handeln befassen (Russell et al. 2010). So gehört beispielsweise der berühmte Turing-Test (TURING 1950) in den Bereich menschliches Handeln, da bei diesem eine KI menschliches Handeln perfekt reproduziert, während moderne Programme zur Bilderkennung und damit verbundenen Entscheidungen eher im Bereich des rationalen Handelns verortet werden können. Neben den defini- torischen Schwierigkeiten befasst sich ein Teil dieser philosophischen Debatte zur KI mit den Unterschieden und Konsequenzen zwischen erstens einer schwachen oder eingeschränkten KI (weak or narrow AI), welche spezielle Probleme intelligent lösen kann, zweitens einer starken oder generellen KI (strong/general AI), welche allge- meine Probleme ebenso gut wie Menschen lösen kann und drittens einer künstlichen Superintelligenz, welche die menschlichen Fähigkeiten weit übertrifft (Kurzweil 2001, Bostrom 2014). Trotz dieser Vielzahl von Ansätzen und Definitionen lässt sich jedoch ein zentraler Aspekt benennen, den alle als KI bezeichnete Systeme aufweisen: Es ist der Versuch, ein System zu entwickeln, das eigenständig komplexe Probleme bearbeiten kann. Es gibt viele Möglichkeiten, das sehr heterogene Forschungsgebiet der KI und seiner vielen Unterkategorien zu beschreiben. Manche Ansätze befassen sich mit den Prob- lemen, die auf dem Weg zur Intelligenz von Computersystemen auftreten, andere mit den Lösungsansätzen für diese Probleme und wiederum andere mit den Verglei- chen zur menschlichen Intelligenz. Um die vielen Teilgebiete soll es hier nicht im V. Wittpahl (Hrsg.), Künstliche Intelligenz , DOI 10.1007/978-3-662-58042-4_1, © Der/die Autor(en) 2019 22 A Technologie Einzelnen gehen. 2 Vielmehr sollen die wichtigsten Grundlagen der KI ohne den Anspruch auf Vollständigkeit erläutert werden (Abbildung A.1). Die Anfänge Am Anfang befasste sich die Entwicklung der KI häufig mit Spielen und mathemati- schen Repräsentationssystemen von Wissen und Entscheidungen, während seit dem Ende des 20. Jahrhunderts die Technik des maschinellen Lernens (Machine Learning, 2 Ausführliche Darstellungen zu Teilgebieten wie Verarbeitung natürlicher Sprache, Wissensrepräsentation, automatisches logisches Schließen, Planung und Wahrnehmung, Robotik und viele mehr finden sich in Russell et al. (2010) und Luger (2003). Abbildung A.1: Methoden der KI (eigene Darstellung in Anlehnung an Copeland 2016) iit-Themenband – Künstliche Intelligenz 23 ML) und in jüngster Zeit das tiefe Lernen (Deep Learning, DL) große Erfolge verzeich- nen konnten und letztlich das aktuell starke Interesse an KI verursachen. Erste Ansätze der KI orientierten sich an klassischen Prinzipien der mathematischen Logik. In der Aussagenlogik können einfache logische Verknüpfungen wie UND, ODER, NICHT kombiniert und Aussagen mit einem Wahrheitsgehalt (WAHR, FALSCH) belegt werden, während in der Prädikatenlogik Argumente formuliert und auf ihren Wahrheitsgehalt überprüft werden können. Die ersten Systeme der KI waren logi- sche Repräsentationssysteme, mit deren Hilfe sich einfache Schlussfolgerungen wie Aussage 1: „Die erste Konferenz zu KI fand 1956 am Dartmouth College statt“, Aussage 2: „Claude Shannon hat an der ersten Konferenz zu KI teilgenommen“ und Schlussfolgerung: „Claude Shannon war 1956 am Dartmouth College“ nachvollzie- hen und beweisen lassen. KI-Systeme, die auf Logik basieren, werden natürlich für deutlich komplexere mathematische Beweise und Theoreme eingesetzt und werden mit Hilfe logischer Programmiersprachen wie PROLOG (Colmerauer und Roussel 1996) bis heute in modernen KI-Anwendungen wie WATSON von IBM genutzt (Lally und Fodor Paul 2011). Ein beliebtes Anwendungsgebiet der KI war und ist das Gebiet der menschlichen Spiele (Samuel 1959). Dieser Ansatz ist naheliegend, denn die Fähigkeiten der KI las- sen sich gut und vergleichbar daran messen, wie gut sie gegen den Menschen spielen oder diesen übertreffen. Der Vorteil dieser Spiele als Messlatte besteht in ihrem übli- cherweise einfachen Regelsystem und einfach beschreibbaren Handlungsmöglichkei- ten bei gleichzeitig, je nach Spiel, fast unbegrenzten Variationen. Schach beispiels- weise hat sehr einfache Regeln, aber geschätzte 10 120 Zugmöglichkeiten. Diese sehr große Zahl liegt außerhalb der menschlichen Vorstellungskraft und es ist bei einer derart hohen Anzahl zunächst unmöglich, dass ein Programm alle Möglichkeiten durchrechnet, um daraus die perfekte Spielstrategie zu entwickeln. Diese hohe Anzahl von Zugmöglichkeiten entsteht dadurch, dass jede Entscheidung, das heißt jeder mögliche Zug im Schach, wieder neue Entscheidungsalternativen und neue Züge, aber mit jeweils anderen Ausgangssituationen und immer so weiter hervorruft. Diese Entscheidungsvarianten können als Baum oder sogenannter Graph beschrieben wer- den, bei dem jedes Blatt beziehungsweise Knoten eine Möglichkeit – im Spiel ist das ein Spielzug – darstellt, aus der sich dann immer neue und andere bis ins Unendliche ergeben. So wie ein Baum wächst, so entfalten sich die möglichen Spielzüge in immer wieder neue Verzweigungen und Verästelungen bis ins quasi Unendliche aller mögli- chen Spielzüge. Einen solchen Baum nennt man Entscheidungsbaum (Decision Tree), und ganze Bereiche der Mathematik und Informatik beschäftigen sich mit der mög- lichst effizienten Suche in solchen verzweigten Graphen. Eine sehr effektive Möglichkeit der Suche in Entscheidungsbäumen sind sogenannte Heuristiken. Eine Heuristik ist ein Verfahren, das innerhalb eines solchen zu durchsu- 24 A Technologie chenden Graphen für jeden Punkt immer wieder die Sinnhaftigkeit einer weiteren vertieften Suche bestimmt und auf diese Weise verhindert, dass nach der besten Strategie lange – im schlimmsten Falle unendlich lange – gesucht wird. Beim Schach bedeutet dies, dass die möglichen Züge nach bestimmten Kriterien bewertet werden und die Möglichkeiten, die sich aus offensichtlich schlechten Zügen ergeben, nicht mehr weiter in Betracht kommen. Demnach führt die Heuristik dazu, dass ein Ent- scheidungsbaum ganz gezielt durchsucht wird, bis ein zufriedenstellendes Ergebnis herauskommt, das nicht unbedingt das bestmögliche Resultat sein muss. Entschei- dungsbäume und die damit verbunden Heuristiken sind in der KI ein sehr effektives Verfahren für Problemstellungen, die durch ein klares und unveränderliches Regelsys- tem beschrieben werden können. Auf die ersten Erfolge der KI im Bereich der Logik und Spiele folgten Versuche, die Verfahren auf allgemeinere Anwendungsfälle zu erweitern. In den 1970er Jahren entstanden Expertensysteme, die über Wenn-Dann-Beziehungen probieren, eine menschliche Wissensbasis in für Computer lesbare Informationen zu verwandeln. Mit den Möglichkeiten zu logischen Schlussfolgerungen und dem effektiven Suchen in diesen Wissensbasen mit Hilfe von Heuristiken konnten die Systeme zunächst einige Erfolge aufweisen und weckten in den 1980er Jahren große Erwartungen an die Möglichkeiten der KI. Ein wesentlicher Nachteil dieser Systeme ist jedoch der immense Aufwand bei der Erfassung menschlichen Wissens und der Umwandlung in die für das Expertensystem notwendige Wissensbasis. Anfang der 1990er Jahre wur- den die großen Erwartungen an die KI enttäuscht: Viele Firmen, die zuvor für viel Geld Expertensysteme gekauft hatten, schafften diese wieder ab. Eine große Anzahl von Unternehmen, die solche Systeme angeboten hatten, verschwanden vom Markt. Diese Misserfolge führten gemeinsam mit einer signifikanten Reduktion von For- schungsgeldern im Bereich der KI ab Ende der 1970er Jahre zur ersten und zweiten Phase des sogenannten AI Winters (Crevier 1995). Maschinelles Lernen Trotz der genannten Rückschläge für die Forschung wurden in den 1980er Jahren die Grundlagen für den heute so zentralen Ansatz des ML gelegt. Die Grundidee ist ein- fach: Wie bringt man ein Computerprogramm, das eine bestimmte Aufgabe hat, dazu, aus Erfahrungen zu lernen und mit diesen Erfahrungen die Aufgabe in Zukunft besser zu erfüllen (Mitchell 2010)? Der Unterschied zu einem statischen Programm liegt darin, dass sich die Entscheidungsregeln über eine Rückkoppelung an das Erlernte anpassen (Abbildung A.2). ML unterteilt sich in die drei Hauptkategorien überwachtes Lernen (Supervised Machine Learning), unüberwachtes Lernen (Unsu- pervised Machine Learning) und verstärktes Lernen (Reinforcement Machine Lear- ning), auf die im Folgenden näher eingegangen werden soll. Zusätzlich unterscheidet